MUSA SDK v5.1.0 发布版本信息

下载链接

MTT S5000

• 下载链接
  • RPM包（如适用OS）：下载地址
  • DEB包（如适用OS）：下载地址

MTT S4000

• 下载链接
  • DEB包（如适用OS）：下载地址
  • RPM包（如使用OS）：下载地址

发布说明

MUSA SDK v5.1.0 版本围绕 MUSA Driver/Runtime、编译工具链与核心计算库进行了能力扩展和稳定性优化，重点增强 CUDA 12.8 兼容能力、图执行与批量异步能力，并持续完善大模型训练和推理场景的基础组件支持，现已正式发布。

具体支持平台详见下方列表。

支持平台

S5000 支持平台

CPU	OS	内核版本	MUSA SDK包
Intel	Alinux	5.10.134-13.al8.x86_64	RPM
	OpenEuler	5.10.0-216.0.0.115.oe2203sp4.x86_64	RPM
	Debian	5.15.120.ve.3u1-amd64	DEB
	Tlinux（TencentOS Server 4.4）	6.6.92-34.1.tl4.x86_64	RPM
	VesselOS 1.0 SP1	5.10.0-136.13.2.89.vo1sp1.x86_64	RPM
	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
Hygon4	Ubuntu 24.04	5.15.0-105-generic	DEB
	Kylin v10（Kylin Linux Advanced Server V10，GFB）	4.19.90-52.23.v2207.gfb08.ky10.x86_64	RPM
	Kylin v11（Kylin Linux Advanced Server V11，Swan25）	6.6.0-32.7.v2505.ky11.x86_64	RPM
AMD	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB

S4000 支持平台

CPU	OS	内核版本	MUSA SDK包
Intel	Ubuntu 22.04.4 LTS	5.15.0-105-generic	DEB
Hygon4	openEuler 24.03（LTS-SP1）	6.6.0-72.0.0.76.oe2403sp1.x86_64	RPM

产品说明

摩尔线程 MUSA SDK 是一套完整的 GPU 并行计算开发环境，专为利用摩尔线程 GPU 加速程序而设计。通过 MUSA SDK，您能够轻松地利用 GPU 加速各种应用，涵盖企业数据中心、桌面、工作站以及云平台和超级计算机等多个领域。该套件包括 GPU 加速库、调试和优化工具、C/C++编译器以及用于应用程序部署的运行时库等功能。作为一套完整的开发工具，MUSA SDK 包含了以下主要组件：

• MUSA Toolkits，包含底层编译器、MUSA 运行时库、Musify 工具以及 MUSA-X 基础数学计算加速库
• muDNN，MT GPU 深度学习加速库
• MCCL，MT GPU 通信加速库
• mutlass，用于在 MUSA 上实现高性能矩阵乘法运算的纯头文件库
• Triton-MUSA，Triton 编译器
• TileLang-MUSA，TileLang 编译器
• MUSA OpenLibs，包含 MATE、MT-SHMEM、muThrust、muAlg 等加速库
• MUSA Mapping，提供 CUDA 代码未经改动情况下直接在 MUSA 软件和 MT GPU 上编译运行
• MUSA SDK 依赖于摩尔线程 GPU 和摩尔线程 GPU 通用驱动程序，需要运行在带有摩尔线程 GPU 的服务器/工作站/PC 中，并安装了通用 Linux 驱动程序的环境中运行
• MT GPU：MTT S5000, MTT S4000
• 通用驱动软件

另外 MUSA SDK 可配合摩尔线程提供的其他工具和软件提供更完整的 MUSA 计算功能：

• GMI&MTML 工具，可提供显卡的管理监控功能并带有 C 函数接口
• 摩尔线程云原生套件，提供基于容器环境的 MUSA 计算并兼容 K8s 生态以及基于 RDMA 的 GPU 通信功能
• Moore Perf，提供调试和性能分析能力

功能描述

• 支持 SIMT (Single Instruction Multiple Thread，SIMT) 架构并行编程模型
• 提供 MUSA 编程语言配套的编译器工具链 mcc，用于将 MUSA 应用程序源码编译为可以被 GPU 识别的可执行文件
• MUSA 驱动与运行时库，提供完整的基于 MT GPU 的 MUSA 运行环境
• 摩尔线程 MUSA 数学库提供了在 MT GPU 上优化过的数学函数库，包括：
  • MUSA 基础线性代数加速库，MUSA BLAS Library，简称 muBLAS
  • MUSA 伪随机数生成加速库，MUSA RAND Library，简称 muRAND
  • MUSA 傅立叶变换加速库，MUSA FFT Library，简称 muFFT
  • MUSA 稀疏矩阵加速库，MUSA SPARSE Library，简称 muSPARSE
  • MUSA 线性代数求解加速库，MUSA SOLVER Library，简称 muSOLVER
  • MUSA 图像及信号处理加速库，MUSA Performance Primitives Library，简称 muPP
  • MUSA Thrust 并行计算加速库，MUSA Thrust Library，简称 muThrust
• MCCL 通信，针对摩尔线程 GPU 和网络进行性能优化的多 GPU 和多节点通信基元，提供 all-gather、all-reduce、broadcast、reduce、reduce-scatter、point-to-point send 和 receive 等原语
• muDNN 库，针对深度学习和人工智能模型优化的函数库，提供张量运算、神经网络层计算、损失函数计算等能力
• Triton MUSA 库，支持在摩尔线程 GPU 上高效运行 Triton DSL

主要更新

功能更新（Feature Updates）

• MUSA Driver/Runtime

  • CUDA 12.8 API 兼容性进一步提升，Driver API 兼容率为 93.61%，Runtime API 兼容率为 96.54%
  • 新增支持 CUDA 12.8 Green CTX API、Stream Ordered Memory Allocator API、ExchangeStreamCaptureMode API
  • 新增 BatchAsync 系列能力，包括 MemoryTransferBatchAsync、MemoryAtomicBatchAsync、StreamBatchMemOp_v2、MemcpyBatchAsync、Memcpy3DBatchAsync
  • Graph 相关 API 进一步完善，支持 Graph on UserQ 能力
  • 修复 MUSA UserQ 在连续 kernel 下发场景的误报超时问题
  • MUPTI 适配 memory atomic、transfer batch、Graph on UserQ，并支持 msys 特性验证
  • MUSA sanitizer 支持结合 MUSA gdb 定位多流 trap 问题

• mtcc 编译工具链

  • 扩展 MTGPU builtin 与 MUSA device header 覆盖，新增 F32 API（frcp_rd、frcp_rz）、FP16 API（h2tanh、h2tanh_approx）、FP8 相关转换能力（含 e8m0/fp4/fp6）及 f64 rcp/sqrt compatibility 支持
  • 修复 __fsqrt_rn 边界 case 精度问题，完善 long double isfinite/isinf/isnan 处理
  • 支持 MTX inline assembly，覆盖 DeepEP 类内核常用的 load、cpasync、atom3、mbarrier 路径
  • 新增 MTGPU SLP Vectorizer、LSU robust API 与 cache hint 支持
  • 新增 FOP 和 AF32 burst 支持
  • 新增 v32i64、v32f64、v64i32、v64f32 的 FRAME_LOAD/FRAME_STORE 支持
  • 修复 vector usage 场景下 frame store/load 使用错误，修复 urem lowering/codegen 及 u64 到 f64 转换舍入模式问题
  • 新增 musa_trap 在 S5000 上的支持

• Triton

  • 开源版本从 3.1.0 升级到 3.2.0
  • 支持在 PH1 上自动开启 WMMA 或 SQMMA
  • 完善 SQMMA 支持，扩展类型与 shape 覆盖并扩大 autotune 范围

• MTX

  • 完善 MTX inline asm 编译链，提升 asm volatile(".mtx\n" ...) 在 MUSA C/C++ 中的可用性和稳定性
  • 扩展并验证常用 MTX 指令支持，覆盖 ld1、st2、atom3、red2、barrier、asyncbar、mbar、lop3.b32、permute3.b32、fmul2、fdiv2、fabs1、cp.async、tensor.ldwmma、tensor.wmma 等路径
  • 优化 operand 适配与寄存器打包，改善 vector tuple、聚合输入及 inline asm 场景兼容性
  • 修复 st2.volatile 宽 store 的 volatile 语义、ld1.cv cache 语义、ld1 全局访存 lowering 以及 st2.release/st2.acquire fence 行为

• muBLAS / muBLASLt

  • muBLAS 新增 gemmex API 对 bf16 输入、fp32 计算与输出的支持
  • muBLAS 与 muBLASLt 返回状态码设计与 CUDA 12.8 对齐
  • 新增 emulations 相关 API 支持

• muSOLVER

  • 支持奇异值分解（含 Jacobi 迭代和近似分解方案），并支持 stridedBatched 场景
  • 支持 Cholesky 分解及基于 Cholesky 分解的矩阵求解

• muSPARSE

  • CUDA 12.8 cuSPARSE API 兼容率达到 100%
  • 修复若干问题

• muAlg

  • 提供面向 MUSA 平台的 GPU 并行基础原语能力，覆盖 device、block、warp 三个层级
  • 当前版本包含 reduction、scan、radix、sort、select、histogram、segmented sort、spmv 等 device 级能力，以及 BlockLoad、BlockStore、BlockScan、BlockReduce、BlockRadixSort、WarpScan、WarpReduce 等 block/warp 级接口
  • 当前版本暂不包含 grid_barrier，并在 S4000 及同类型架构上继续屏蔽 warp_exchange

• muThrust

  • 提供 STL 风格并行算法库、容器与执行策略支持，覆盖 host_vector、device_vector 及 sort/reduce/scan/transform 等常用能力
  • 支持 async copy、for_each、transform、reduce、sort、scan 等异步能力
  • 默认测试范围目前仅排除 async.exclusive_scan.large_indices 与 async.inclusive_scan.large_indices

• muDNN

  • 同时提供 C 和 C++ 两套 API（不支持混用）
  • GroupedMatMul 与 BatchMatMul 增强分块能力并优化分块选择逻辑
  • Unary 算子扩展多数据类型支持并优化性能
  • Permute、BatchNorm、Pooling 等算子在多场景下优化性能与功能支持
  • 优化编译流程以降低运行过程显存占用，并修复若干问题

• MCCL

  • 新增 mcclGather、mcclScatter、mcclAlltoAll(shader) CC API
  • 新增 mcclCommSplit（支持多通信器组共享资源）
  • 新增 mcclCommShrink、mcclCommInitRankScalable、mcclCommRevoke 容错能力
  • 增强聚合能力，优化聚合通信延时
  • 支持 auto-tune，可自动选择算法与协议
  • 支持多机 LL 协议，优化多机场景小数据量通信时延

产品组件说明

包名称	版本
mccl.2.3.0.PH1.tar.gz	2.3.0
mccl.2.3.0.QY2.tar.gz	2.3.0
mt-peermem-1.3-1.el8.x86_64.rpm	1.3
mt-peermem_1.3_amd64.deb	1.3
mudnn.3.3.0.PH1.tar.gz	3.3.0
mudnn.3.3.0.QY2.tar.gz	3.3.0
musa_5.1.0-server_amd64.deb	5.1.0
musa_5.1.0-server_amd64.rpm	5.1.0
musa_toolkits_5.1.0.tar.gz	5.1.0
triton_1.6.0.py310.tar.gz	1.6.0
triton_1.6.0.py311.tar.gz	1.6.0